Jassin wurde 1936 (nach anderen Angaben 1938) in einem Dorf in der Negev Wüste, nahe Askalon geboren. Infolge des 1. Arabisch-Israelischen Krieges von 1948 zog seine Familie nach Gaza. Während seines Religions-Studiums an der Azhar-Universität in Kairo schloss er sich der terroristisch-islamistischen Bewegung der Muslimbrüder an. 1987, zu Beginn der Intifada, gründete er mit anderen Muslimbrüdern den bewaffneten Zweig der Hamas und wurde deren Chefideologe. Er rief wiederholt zu dem gewalttätigen Widerstand gegen Israel auf und setzte hierbei vor allem auf die zahlreichen Selbstmordattentäter.

1989 wurde der stark sehbehinderte Scheich, der seit einem Sportunfall in seiner Jugend auf einen Rollstuhl angewiesen war, von israelischen Behörden verhaftet und 1991 von einem Gericht wegen Anstiftung zu dem Mord an sogenannten palästinensischen Kollaborateuren sowie wegen Anstiftung zur Entführung und Ermordung zweier israelischer Soldaten zu lebenslanger Haft verurteilt. In dem Zuge eines Gefangenenaustausches gegen zwei Mossadagenten, die in Jordanien nach einem gescheiterten Mordanschlag auf Khaled Meschal verhaftet worden waren, kam er 1997 auf Vermittlung des damaligen jordanischen Königs Hussein wieder frei.

Jassin fuhr fort, Israel aggressiv verbal anzugreifen und zu Mordanschlägen gegen das Militär und Zivilisten aufzurufen. Daraufhin stellte ihn die PLO zweimal, 2000 und 2001, unter Hausarrest. Die Behörde von Jassir Arafat musste die Maßnahme gegen den Scheich jedoch beide Male auf massiven Druck der Bevölkerung hin wieder aufheben. Bei einem gezielten Luftangriff wurde Jassin in dem September 2003 leicht verletzt, was ihn erneut veranlasste, Israel öffentlich Rache zu schwören.

Am Morgen des 22. März 2004 wurde der Scheich beim Verlassen einer Moschee durch einen gezielten Luftangriff israelischer Hubschrauber getötet. Bei dem Angriff haben acht weitere Personen, darunter Leibwächter des Scheichs, ihr Leben verloren. Jassins Nachfolger wurde der militante Kinderarzt Abd al-Aziz Rantissi.

Am 26. März scheitert eine in dem UN-Sicherheitsrat eine Resolution zur Verurteilung der Tötung Jassins am Veto der Vereinigte Staaten Amerika. Einzelne Staaten und ihre Führer, wie Mohamed Hosni Mubarak (Ägypten), Jack Straw (Großbritannien), Joschka Fischer (Deutschland) und der EU-Außenbeauftragte Javier Solana wandten sich dennoch gegen das israelische Vorgehen.